Định kiến xã hội có thể ảnh hưởng tới trí tuệ nhân tạo như thế nào?

Trong tựa game Chrono Trigger, nhân vật Lucca – một nhà khoa học đã nói: “Máy móc không xấu xa. Cách mà con người tạo ra chúng khiến chúng trở nên xấu xa.” Điều đó thật sự rất đúng nếu chúng ta nhìn vào cách mà con người đã và đang sử dụng những tiến bộ công nghệ. Và sẽ thế nào nếu ai đó sử dụng trí tuệ nhân tạo để tạo ra những ảnh hưởng tiêu cực trong xã hội?

Trong lịch sử phát triển của loài người, luôn có nhiều định kiến và thành kiến khác nhau như phân biệt chủng tộc, chủ nghĩa giai cấp, chủ nghĩa bài Do Thái, phân biệt giới tính, hạ thấp phụ nữ, tư tưởng cực đoan v.v. Dù bạn sống ở xã hội nào, nó cũng đều tràn ngập những định kiến dựa trên giới tính, tôn giáo, màu da, nhan sắc, tầng lớp xã hội, v.v.

Trong quá khứ, những điều đó thường chỉ gây ảnh hưởng ở một phạm vi nhỏ. Tuy nhiên, khi khoa học công nghệ ngày càng phát triển, khả năng kết nối giữa người với người ngày càng mở rộng thì ảnh hưởng của những định kiến xã hội cũng theo đó mà lớn dần lên.

Khả năng mà những tư tưởng sai lệch của con người có thể xâm nhập vào hệ thống trí tuệ nhân tạo (AI) và gây ra ảnh hưởng tiêu cực là một chủ đề nóng trong cộng đồng công nghệ. Nói một cách đơn giản, độ lệch AI là một vấn đề xuất hiện khi thuật toán AI tạo ra kết quả bị sai lệch một cách có hệ thống do các giả định sai được đưa ra trong quá trình đào tạo AI. Việc đẩy mạnh ứng dụng trí tuệ nhân tạo nhanh chóng trong các ngành khiến cho việc giải quyết và loại bỏ định kiến trở nên vô cùng cấp thiết.

Hơn nữa, khi tạo ra một thực thể thông minh như trí tuệ nhân tạo, chúng ta nên thiết kế nó dựa trên thế giới lý tưởng mà chúng ta muốn sống, hơn là tạo ra một bản sao của xã hội đầy rẫy thiên kiến cá nhân mà chúng ta đang có.

Điều gì làm cho định kiến xã hội có thể thâm nhập vào trí tuệ nhân tạo?

Những lý do chính khiến sự thiên vị xâm nhập vào các thuật toán AI là:

Thiên kiến nhận thức (Cognitive bias)

Những lỗi nhận thức không cố ý thường liên quan đến việc ra quyết định, làm sai lệch các phán đoán và lựa chọn. Dựa trên các khái niệm đã được thiết lập có thể chính xác hoặc không, loại sai lệch này xuất phát từ nỗ lực của bộ não con người nhằm hợp lý hóa việc xử lý dữ liệu môi trường.

Các nhà tâm lý học đã xác định và mô tả hơn 180 loại thiên kiến nhận thức bao gồm thiên kiến xác nhận, thiên kiến nhận thức muộn, thiên kiến tự phục vụ, thiên kiến cố định, thiên kiến sẵn có, hiệu ứng đóng khung và điểm mù nhận thức.

Thiếu dữ liệu toàn diện

Dữ liệu không đầy đủ và không đại diện đầy đủ cho các bên liên quan nói chung sẽ bị sai lệch. AI học hỏi thông qua các dữ liệu thu thập được, và sự sai lệch có thể xảy ra khi nó được đào tạo dựa trên dữ liệu có sự không công bằng trong lịch sử và xã hội.

Ví dụ: một mô hình AI lựa chọn ứng viên được đào tạo dựa trên dữ liệu với giới tính là một đặc điểm thì sẽ có xu hướng phân biệt giới tính.

Thiên kiến lựa chọn (Selection bias)

Dữ liệu có thể không mang tính đại diện hoặc được lựa chọn mà không có sự xem xét đầy đủ. Ví dụ quá trình học máy dựa trên một nhóm nhân khẩu học cụ thể có thể khiến mô hình AI đưa ra kết quả sai lệch hoặc ngược lại với nhóm nhân khẩu học đó.

Vòng phản hồi thiên vị đối với dữ liệu do người dùng quản lý

Những người quản lý và mô tả hình ảnh của các môn thể thao mạo hiểm có thể liên kết nam giới với môn thể thao này và phản hồi củng cố sự thiên vị của mô hình.

Thiên kiến vô thức (Unintended bias)

Hệ thống AI có khả năng phát hiện các kết nối thống kê không phù hợp. Ví dụ một mô hình tín dụng AI có thể coi tuổi là một tham số và từ chối các khoản vay cho người lớn tuổi.

Thiên kiến của AI gây bất lợi cho xã hội nói chung như thế nào?

Mặc dù mục đích của trí tuệ nhân tạo là nhằm giải phóng chúng ta khỏi những hạn chế của con người, nhưng mặt trái của nó là nó cũng phụ thuộc vào con người để học hỏi, thích nghi và hoạt động bình thường.

Các hệ thống AI được thiết kế để quét hàng loạt dữ liệu khi chúng thực hiện các tác vụ của mình. Chúng được kích hoạt để phát hiện các mẫu và xu hướng trong nhóm dữ liệu và cuối cùng sử dụng chúng làm thông tin chi tiết để thực hiện các hành động hoặc giúp con người đưa ra quyết định tốt hơn.

Đôi khi, dữ liệu đào tạo được sử dụng trong các mô hình AI không đủ lớn hoặc không đủ đa dạng, dẫn đến một số nhóm nhân khẩu học bị trình bày sai. Điều này khá nguy hiểm, các nhà nghiên cứu lo ngại rằng các mô hình AI có thể bắt chước sự thiên vị của con người và cuối cùng tái hiện lại các hành vi phân biệt đối xử dựa trên giới tính, chủng tộc, dân tộc hoặc quan điểm cá nhân.

Ngoài việc không đầy đủ, dữ liệu đào tạo cũng có thể không chính xác do định kiến của con người dẫn đến việc đại diện quá mức và/hoặc đại diện dưới mức cho một số loại dữ liệu nhất định, trái ngược với việc gán trọng số bằng nhau cho các điểm dữ liệu khác nhau. Đây là một ví dụ kinh điển về cách các kết quả sai lệch có thể xâm nhập vào phạm vi xã hội và gây ra những hậu quả không đáng có như các vấn đề pháp lý hoặc mất cơ hội tài chính.

Mặc dù sự thiên vị trong các hệ thống AI đôi khi chỉ được coi là một vấn đề kỹ thuật – nhưng nó thực sự là một mối đe dọa nghiêm trọng đối với con người trên quy mô lớn hơn. Sự kết hợp giữa các thành kiến của con người, hệ thống và tính toán có thể dẫn đến những kết quả nguy hiểm, đặc biệt là khi thiếu định hướng rõ ràng để quản lý các mối nguy liên quan đến quá trình triển khai. Dữ liệu đào tạo mà trí tuệ nhân tạo sử dụng để đưa ra lựa chọn có thể chứa đựng những đánh giá thiên vị của con người phản ánh những bất công trong lịch sử và xã hội.

Cách hạn chế thiên kiến của AI

Sự hợp tác giữa các nhà khoa học xã hội, các nhà hoạch định chính sách và các thành viên của ngành công nghệ là vô cùng cần thiết để giải quyết vấn đề này. Ngày nay, các doanh nghiệp có thể nỗ lực hành động để đảm bảo rằng các thuật toán mà họ tạo ra thúc đẩy sự đa dạng và hòa nhập. Dưới đây là những điều mà các nhà phát triển AI nên xem xét:

Yếu tố lịch sử

Các công ty có thể thực hành công bằng bằng cách nhận thức được những lĩnh vực mà AI đã thiếu sót trong quá khứ và tận dụng điều đó để xóa nhòa định kiến.

Luôn ghi nhớ tính toàn diện

Các doanh nghiệp lớn có thể đảm bảo rằng các mô hình mà họ xây dựng không kế thừa định kiến có trong phán đoán của con người. Việc tham khảo ý kiến của các nhà khoa học hay tâm lý học trước khi bắt tay vào thiết kế các thuật toán AI là vô cùng hợp lý.

Thử nghiệm có mục tiêu

Hiệu suất của các mô hình AI nên được thử nghiệm trên các nhóm nhỏ khác nhau, thử nghiệm chúng một cách nhất quán để tìm ra các vấn đề tiềm ẩn và sửa đổi chúng.

Thiết lập khuôn khổ và các biện pháp kiểm soát để ngăn chặn định kiến xã hội thâm nhập vào AI

Trước tiên, họ nên xác định đạo đức AI có ý nghĩa gì đối với họ về mặt con người, quan tâm đến quá trình suy nghĩ của xã hội trong toàn tổ chức và tạo ra các nhóm chức năng chéo để quản lý việc đào tạo và sử dụng AI. Hơn nữa, họ nên áp dụng cách tiếp cận theo vòng đời đối với xu hướng AI khi thực hiện nhiều đánh giá sai lệch khác nhau, bắt đầu từ ý tưởng ban đầu đến quá trình phát triển đến vòng đời sau khi phát hành.

Lời kết

Trí tuệ nhân tạo mang lại nhiều lợi thế cho các ngành công nghiệp và nền kinh tế, đồng thời giải quyết các vấn đề xã hội nghiêm trọng nhất, nhưng đó là khi con người hợp tác và nỗ lực giải quyết vấn đề thiên kiến của AI một cách có trách nhiệm.

Khi các mô hình AI được đào tạo về các quyết định hoặc hành vi của con người thể hiện sự thiên vị, các nhà phát triển nên suy nghĩ về việc thay đổi các quy trình do con người điều khiển như yếu tố đạo đức, thiết lập khuôn khổ hay tăng cường các biện pháp kiểm soát để ngăn chặn định kiến xã hội thâm nhập vào AI.

Các quy trình và đánh giá của con người phải được sử dụng để thiết lập các tiêu chuẩn, dựa trên khoa học xã hội, luật pháp và đạo đức để đảm bảo rằng trí tuệ nhân tạo được sử dụng một cách công bằng và không thiên vị.

Bài viết dựa trên những quan điểm cá nhân của Sanjeev Menon – người có 25 năm kinh nghiệm trong các lĩnh vực hàng đầu về công nghệ như viễn thông, giải pháp thương mại điện tử và trí tuệ nhân tạo.

Có thể bạn quan tâm:

• Trí tuệ nhân tạo AI: Công nghệ tối thượng hay hiểm hoạ khôn lường?
• Trí tuệ nhân tạo là gì và cách thức chúng vận hành ra sao?
• Metaverse mang tới triển vọng mới cho các dịch vụ chăm sóc sức khỏe từ xa

Đừng quên theo dõi Blog Ăn Chơi để cập nhật những thông tin mới nhất và thú vị nhất về công nghệ trí tuệ nhân tạo nhé!

Xem thêm

Trí tuệ nhân tạo có thể giúp chúng ta chăm sóc sức khỏe tốt hơn như thế nào?

Trí tuệ nhân tạo ngày càng được ứng dụng trong nhiều lĩnh vực của đời sống, từ giải trí cho tới sức khỏe. Nhờ những tiến bộ về phần cứng và phần mềm máy tính, công nghệ AI có thể tạo ra cuộc cách mạng chăm sóc sức khỏe cho cả người bệnh và bác sĩ, ví dụ như ...